Beklenmedik müttefiklerden oluşan bir grup, yapay zekanın "süper zekasına" yasak getirilmesini istiyor

Prens Harry ve eşi Meghan, önde gelen bilgisayar bilimcileri, ekonomistler, sanatçılar, evanjelik Hristiyan liderler ve Amerikalı muhafazakar yorumcular Steve Bannon ve Glenn Beck ile birlikte, insanlığı tehdit edebileceğini söyledikleri yapay zeka "süper zekasının" yasaklanması çağrısında bulundu.

Çarşamba günü siyasi ve coğrafi açıdan farklı bir grup tanınmış şahsiyet tarafından yayınlanan mektup, birçok işte insanları geride bırakacak bir yapay zeka geliştirmek için birbirleriyle yarışan Google, OpenAI ve Meta Platforms gibi teknoloji devlerini hedef alıyor.

30 kelimelik açıklamada, "Süper zekânın geliştirilmesinin yasaklanmasını, bunun güvenli ve kontrollü bir şekilde yapılacağı konusunda geniş bir bilimsel fikir birliği oluşmadan ve kamuoyunda güçlü bir destek oluşmadan önce yasakların kaldırılmasını talep ediyoruz." denildi.

Mektupta, yapay zekâ araçlarının sağlık ve refah getirebileceği, ancak bu araçların yanı sıra "birçok önde gelen yapay zekâ şirketinin, önümüzdeki on yılda tüm bilişsel görevlerde tüm insanlardan önemli ölçüde daha iyi performans gösterebilecek bir süper zekâ inşa etme hedefi olduğu" belirtiliyor. Bu durum, insanlığın ekonomik olarak eskimesi ve güçsüzleşmesinden, özgürlük, medeni haklar, onur ve kontrol kayıplarına, ulusal güvenlik risklerine ve hatta potansiyel insan neslinin tükenmesine kadar uzanan endişeleri gündeme getiriyor.

Prens Harry, kişisel bir notta, "Yapay zekanın geleceği insanlığa hizmet etmeli, onun yerini almamalı. İlerlemenin gerçek testinin ne kadar hızlı hareket ettiğimiz değil, ne kadar akıllıca yol aldığımız olduğuna inanıyorum. İkinci bir şans yok." diye ekledi.

Sussex Dükü'nün yanında imzayı atanlar arasında eşi Sussex Düşesi Meghan da vardı.

"Bu, alışılmış anlamda bir yasak veya moratoryum değil," diye yazdı bir diğer imzacı, Kaliforniya Üniversitesi, Berkeley'de bilgisayar bilimleri profesörü ve yapay zeka öncüsü Stuart Russell. "Bu, geliştiricilerine göre insanlığın yok olmasına yol açma olasılığı yüksek olan bir teknoloji için yeterli güvenlik önlemlerinin alınmasını zorunlu kılan bir tekliften ibaret. Bunu istemek çok mu fazla?"

İmzalayanlar arasında, bilgisayar biliminin en büyük ödülü olan Turing Ödülü'nü ortak kazanan yapay zeka öncüleri Yoshua Bengio ve Geoffrey Hinton da vardı. Hinton, geçen yıl fizik dalında Nobel Ödülü de kazanmıştı. Her ikisi de, yaratılmasına katkıda bulundukları bir teknolojinin tehlikelerine dikkat çekmek için seslerini yükselttiler.

Ancak listede, kar amacı gütmeyen Yaşamın Geleceği Enstitüsü'ndeki mektubun düzenleyicilerinin, Başkan Trump'ın Amerika'yı Yeniden Harika Hale Getir hareketine seslenmek için bir girişimde bulunması ve Bay Trump'ın Beyaz Saray personelinin ABD'de yapay zeka geliştirme sınırlarını azaltmaya çalışması gibi bazı sürprizler de var.

Listede ayrıca Apple'ın kurucu ortağı Steve Wozniak, İngiliz milyarder Richard Branson, Cumhuriyetçi ve Demokrat yönetimlerde görev yapmış eski ABD Genelkurmay Başkanı Mike Mullen ve Başkan Barack Obama'nın ulusal güvenlik danışmanlığını yapmış Demokrat dış politika uzmanı Susan Rice da yer alıyor.

İmzalayanlar arasında eski İrlanda Cumhurbaşkanı Mary Robinson ve birkaç İngiliz ve Avrupalı ​​parlamenterin yanı sıra aktörler Stephen Fry ve Joseph Gordon-Levitt ile müzik yaratımında yapay zekayı benimseyen müzisyen will.i.am da yer aldı.

"Evet, hastalıkları tedavi etmeye, ulusal güvenliği güçlendirmeye vb. yardımcı olabilecek özel yapay zeka araçları istiyoruz," diye yazdı Gordon-Levitt. Eşi Tasha McCauley, CEO Sam Altman'ın 2023'te geçici olarak görevden alınmasına yol açan çalkantıdan önce OpenAI'nin yönetim kurulunda görev yapıyordu. "Ama yapay zekanın aynı zamanda insanları taklit etmesi, çocuklarımızı eğitmesi, hepimizi uyuşturucu bağımlısı yapması ve reklam yayınlayarak milyonlarca dolar kazanması mı gerekiyor? Çoğu insan bunu istemiyor."

Mektubun, yapay zeka araştırma topluluğu arasında süper insan yapay zekasının olasılığı, ona ulaşmak için teknik yollar ve ne kadar tehlikeli olabileceği konusunda devam eden tartışmaları tetiklemesi muhtemel.

"Geçmişte, çoğunlukla inekler ve inekler arasında bir çekişme vardı," dedi Massachusetts Teknoloji Enstitüsü'nde profesör ve Geleceğin Yaşamı Enstitüsü başkanı Max Tegmark. "Burada gördüğümüz şeyin, eleştirilerin ne kadar yaygınlaştığı olduğunu düşünüyorum."

Daha geniş tartışmaları daha da karmaşık hale getiren şey, bazılarının süper zekâ, bazılarının ise yapay genel zekâ veya AGI olarak adlandırdığı şeye ulaşmaya çalışan aynı şirketlerin, bazen ürünlerinin yeteneklerini abartarak onları daha pazarlanabilir hale getirmeleri ve bir yapay zekâ balonuna dair endişelere katkıda bulunmalarıdır. OpenAI, araştırmacısının ChatGPT'nin çözülmemiş matematik problemlerini çözdüğünü iddia etmesi üzerine yakın zamanda matematikçiler ve yapay zekâ bilimcileri tarafından alay konusu olmuştu; oysa aslında yaptığı şey, halihazırda çevrimiçi olan şeyleri bulup özetlemekti.

Tegmark, "Çok fazla abartılan şey var ve bir yatırımcı olarak dikkatli olmanız gerekiyor, ancak bu, yapay zekanın son dört yılda çoğu insanın tahmin ettiğinden çok daha hızlı ilerlediği gerçeğini değiştirmiyor." dedi.

Tegmark'ın grubu, henüz ticari bir yapay zeka patlamasının şafağında olan Mart 2023 tarihli bir mektubun da arkasındaydı. Bu mektup, teknoloji devlerini daha güçlü yapay zeka modellerinin geliştirilmesine geçici olarak ara vermeye çağırıyordu. Büyük yapay zeka şirketlerinin hiçbiri bu çağrıya kulak asmadı. 2023 tarihli mektubun en önemli imzacısı Elon Musk ise, 6 aylık bir ara vermesini istediği şirketlerle rekabet etmek için sessizce kendi yapay zeka girişimini kuruyordu.

Bu kez Musk'a ulaşıp ulaşmadığı sorulduğunda Tegmark, ABD'deki tüm büyük yapay zeka geliştiricilerinin CEO'larına mektup yazdığını ancak imza atacaklarını beklemediğini söyledi.

"Açıkçası, onlara gerçekten çok üzülüyorum çünkü bu dibe doğru yarışta o kadar sıkışmış durumdalar ki, devam etmek ve diğerlerinin onları geçmemesi için karşı konulmaz bir baskı hissediyorlar," dedi Tegmark. "Sanırım bu yüzden süper zekâ yarışını damgalamak, ABD hükümetinin müdahale edeceği noktaya getirmek çok önemli."